Бивш лидер на OpenAI казва, че безопасността е „отстъпила на заден план пред лъскавите продукти“ в компанията за изкуствен интелект
Бивш лидер на OpenAI, който подаде оставка от компанията по-рано тази седмица, каза в петък, че безопасността „е отстъпила на заден план пред лъскавите продукти ” във влиятелната компания за изкуствен интелект.
Ян Лейке, който ръководеше екипа „Super Alignment“ на OpenAI заедно със съосновател на компанията, който също подаде оставка тази седмица, написа в поредица от публикации в платформата за социални медии X, че се присъединява към базираната в Сан Франциско компания, защото смяташе, че това би било най-доброто място за изследване на ИИ.
„Въпреки това, не съм съгласен с ръководството на OpenAI относно основните приоритети на компанията от доста време, докато най-накрая достигнахме точка на пречупване“, написа Leike, чийто последен ден беше четвъртък.
Изследовател на AI по образование, Leike каза, че вярва, че трябва да се съсредоточи повече върху подготовката за следващото поколение модели на AI, включително върху неща като безопасност и анализиране на общественото въздействие на такива технологии. Той каза, че изграждането на „по-умни от човека машини е опасно начинание“ и че компанията „поема огромна отговорност от името на цялото човечество“.
„OpenAI трябва да се превърне в AGI компания, която е на първо място за безопасността“, пише Leike, използвайки съкратената версия на изкуствения общ интелект, футуристична визия за машини, които са толкова умни, колкото хората или поне могат да правят много неща толкова добре, колкото и хората .
Оставката на Лейке дойде, след като съоснователят и главен учен на OpenAI Иля Суцкевер каза във вторник, че той напуска компанията след почти десетилетие. Sutskever беше един от четиримата членове на борда миналата есен, които гласуваха да изгонят главния изпълнителен директор Сам Алтман - само за да го върнат бързо. Суцкевер беше този, който каза на Алтман миналия ноември, че е уволнен, но по-късно той каза, че съжалява за това.
Sutskever каза, че работи върху нов проект, който е значим за него, без да предлага допълнителни подробности. Той ще бъде заменен от Якуб Пачоцки като главен учен. Алтман нарече Пачоки „също лесно един от най-великите умове на нашето поколение“ и каза, че е „много уверен, че ще ни накара да постигнем бърз и безопасен напредък към нашата мисия да гарантираме, че AGI е от полза за всички“.
В понеделник OpenAI показа най-новата актуализация на своя модел с изкуствен интелект, който може да имитира човешкия ритъм в вербалните си отговори и дори може да се опита да открие настроенията на хората.